home *** CD-ROM | disk | FTP | other *** search
/ AmigActive 2 / AACD 2.iso / AACD / WebSites / MailingLists / AMOSLIST.0599 / 000092_nobody_Tue May 18 17:08:53 1999.msg < prev    next >
Internet Message Format  |  1999-06-01  |  3KB
  1. Received: from onelist.com (pop.onelist.com [209.207.164.209])
  2.     by osf1.gmu.edu (8.8.8/8.8.8) with SMTP id RAA20260
  3.     for <mcox4@osf1.gmu.edu>; Tue, 18 May 1999 17:08:47 -0400 (EDT)
  4. Received: (qmail 22097 invoked by alias); 18 May 1999 21:08:14 -0000
  5. Received: (qmail 22081 invoked from network); 18 May 1999 21:08:13 -0000
  6. Received: from unknown (HELO mail.mel.aone.net.au) (203.12.176.157) by pop.onelist.com with SMTP; 18 May 1999 21:08:13 -0000
  7. Received: from magnet.com.au (rwhiteley@d137-1.cpe.Sydney.aone.net.au [203.12.186.137]) by mail.mel.aone.net.au (8.8.8/8.8.8) with SMTP id HAA15721 for <amos-list@onelist.com>; Wed, 19 May 1999 07:08:41 +1000 (EST)
  8. From: Rod Whiteley <rwhiteley@magnet.com.au>
  9. To: AMOS Mailing List <amos-list@onelist.com>
  10. Date: Wed, 19 May 1999 07:08:00 +1000
  11. Message-ID: <yam7808.13.269958712@mail01.mel.magnet.com.au>
  12. X-Mailer: YAM 2.0Preview7 [020] - Amiga Mailer by Marcel Beck - http://www.yam.ch
  13. Organization: Mitchell & Whiteley Physiotherapy
  14. Mailing-List: list amos-list@onelist.com; contact amos-list-owner@onelist.com
  15. Delivered-To: mailing list amos-list@onelist.com
  16. Precedence: bulk
  17. List-Unsubscribe: <mailto:amos-list-unsubscribe@ONElist.com>
  18. Reply-to: amos-list@onelist.com
  19. Mime-Version: 1.0
  20. Content-Type: text/plain
  21. Subject: [amos-list] ?Math bug
  22. Status: O
  23. X-Status: 
  24.  
  25. From: Rod Whiteley <rwhiteley@magnet.com.au>
  26.  
  27. G'Day all,
  28. I'm writing a little utility that requires the use of floating point integers,
  29. and I've noticed that AMOSPro (new version library) seems to do funny things
  30. with them. For example if you type in 
  31. A#=0.485
  32. it gets converted to 
  33. A#=0.4849998 or 0.4849999
  34. I realise that this will only make a minor difference to the outcome in my
  35. utility since I'm only doing first order math, but if this were being
  36. compunded, then some very real errors will be introduced. I've even noticed
  37. that occasionally 
  38. 30.00-30.00
  39. gives a result of 
  40. 0.01
  41. up to as high as
  42. 0.04
  43. Is there any way of forcing more precision? (short of multiplying everything
  44. by, say 10,000; then dividing by 10,000 at the end)?
  45. If not, then what's the easiest way to include this utility written in C into
  46. AMOS?
  47.  
  48. Cheers,
  49. Rod Whiteley
  50. P.S. I'm now feeling very sheepish about all the wisecracks I made to my PC
  51. mates when the Pentium math bug was demonstrated, so help, please!
  52. -- 
  53. Mitchell & Whiteley Physiotherapy.
  54.  
  55.  
  56.  
  57. ------------------------------------------------------------------------
  58. ONElist:  where real people with real interests get connected.
  59. http://www.onelist.com
  60. Join a new list today!
  61. ------------------------------------------------------------------------
  62. Official AMOS WWW: http://members.xoom.com/AmosFactory/front.html